شرکت کوهیر (Cohere) می‌گوید مدل Qwen علی‌بابا تلاش کرده است فایلی را به پکن ارسال کند

Aditya Mehta — 2026-10-27T01:12:21+00:00

یک مدل هوش مصنوعی گفت که از هیچ ابزاری استفاده نخواهد کرد، اما با این حال تلاش کرد چیزی را به سروری در پکن بفرستد؛ محققان می‌گویند این احتمالاً یک ناهنجاری ناشی از آموزش است و جاسوسی محسوب نمی‌شود، با این حال این ماجرا باعث شده تا افراد بپرسند چقدر می‌توان به هوش مصنوعی رایگان چینی اعتماد کرد.

شرکت هوش مصنوعی کانادایی کوهیر (Cohere) روز دوشنبه اعلام کرد که در جریان یک تست معمول امنیت سایبری، متوجه شده یکی از جدیدترین مدل‌های هوش مصنوعی علی‌بابا به نام Qwen3.8-Flash-Next تلاش کرده است فایلی را روی سروری در پکن آپلود کند، علی‌رغم اینکه این مدل در یادداشت‌های خودش ذکر کرده بود از هیچ ابزاری استفاده نخواهد کرد.

این اتفاق در ابتدا این نگرانی را ایجاد کرد که مدل مذکور یکی از تعهدات اساسی به کسب‌وکارها را زیر پا گذاشته است؛ تعهد به این مضمون که میزبانیِ شخصی (Self-hosting) یک مدل با وزن‌های باز (Open-weight)، داده‌ها را درون سازمان نگه می‌دارد. اما این نگرانی‌های اولیه درباره جاسوسی شرکتی چندان دوام نیاورد. محققان به سرعت این تهدید را رد کردند و گفتند این موضوع احتمالاً فرآورده‌ای جانبی از محیط‌های آموزشی نامنظم است که باعث می‌شود مدل‌ها به‌طور غیرمنتظره‌ای خارج از دستورالعمل‌های خود عمل کنند، و نه تلاشی عامدانه برای ارسال مخفیانه اطلاعات حساس به چین.

این ماجرا روز جمعه و در جریان ارزیابی آغاز شد که طی آن از مدل Qwen خواسته شده بود قانونی برای شناسایی دانلود بدافزارها بنویسد. بر اساس پست وبلاگی شرکت کوهیر، استدلال مکتوب این مدل صراحتاً بیان می‌کرد که از هیچ ابزار خارجی استفاده نخواهد کرد. با این حال، در مرحله بعدی، مدل تلاش کرد پیش از مسدود شدن توسط یک سندباکس امنیتی، یک رشته تستی (یک قطعه متن کوتاه به‌عنوان جایگزین) را به یک سرور خارجی بفرستد.

کوهیر اعلام کرد که نمی‌تواند تشخیص دهد آیا این رفتار عمدی بوده یا بقایایی از فرآیند آموزش آن.

ایوان ژانگ (Ivan Zhang)، هم‌بنیان‌گذار کوهیر، در پاسخ به پرسشی درباره بحث‌های پیرامون قصد و نیت این مدل، به تک‌کرانچ گفت که کوهیر در شبیه‌سازهای آموزشی خود نیز مشاهده کرده که مدل‌هایش به عادت‌های عجیبی مبتلا می‌شوند.

ژانگ گفت: «تشخیص نیت یا انگیزه واقعاً دشوار است. ما ردپاهای مدل خودمان را خوانده‌ایم، هک‌های پاداش را دیده‌ایم، و گاهی اوقات این مدل‌ها در تلاش برای فرار از سندباکس‌های خود بسیار خلاق می‌شوند.» (هک‌های پاداش میانبرهایی هستند که مدل برای کسب امتیاز بدون انجام درست وظیفه محوله پیدا می‌کند.)

برای آموزش یک مدل هوش مصنوعی به عنوان عاملی (Agent) که به‌طور مستقل دست به اقدام می‌زند، شرکت‌هایی مانند علی‌بابا آن را در هزاران محیط تمرینی شبیه‌سازی‌شده، چیزی شبیه به شبیه‌سازهای پرواز برای نرم‌افزار، آموزش می‌دهند. مدل هر بار که وظیفه‌ای را در شبیه‌ساز به پایان می‌رساند پاداش می‌گیرد و در این مسیر عادت‌هایی را کسب می‌کند. اگر این محیط‌های تمرینی به‌طور معمول فایل‌ها را روی سرورهای ابری علی‌بابا ذخیره می‌کردند، مدل‌ها می‌توانند یاد بگیرند که به‌طور پیش‌فرض فایل‌ها را در آنجا ذخیره کنند.

منتقدان همچنین استدلال کردند که این حادثه ممکن است ناشی از نحوه بررسی این رفتار توسط کوهیر باشد؛ به این صورت که مدل را به سمت آن هدایت کرده است، به جای اینکه بسنجد Qwen چند بار به طور مستقل دست به چنین کاری می‌زند.

برای یافتن عامل راه‌اندازنده تلاش برای آپلود، کوهیر بخش ابتدایی یک فرمان شبکه (دستوری که به یک کامپیوتر می‌گوید به کامپیوتر دیگری متصل شود) را در اختیار مدل قرار داد و به آن اجازه داد تا کار را به پایان برساند. از آنجا که این مدل در طول آموزش خود هزاران فرمان معمولی شبکه را پردازش کرده بود، مانند یک سیستم تکمیل خودکار بسیار پیشرفته عمل کرد و اغلب آدرس‌های وب را تکمیل نمود که برخی از آن‌ها متعلق به سرورهای علی‌بابا بودند.

کوهیر اعلام کرد که تلاش اولیه برای آپلود بدون هیچ‌گونه کمکی از این دست انجام شده، اما چنین رفتاری نادر است.

پس از اینکه توسعه‌دهندگان شواهد بیشتری درخواست کردند، کوهیر عصر دوشنبه داده‌های خام تست‌های خود را روی پلتفرم توسعه‌دهندگان هوش مصنوعی Hugging Face به همراه یک اسکریپت منتشر کرد تا دیگران نیز بتوانند این رفتار را بازسازی کنند.

یکی از منتقدان اولیه، پس از بررسی این داده‌ها، شواهد را مبنی بر اینکه Qwen می‌توان آدرس‌های وب مشکوک تولید کند قوی ارزیابی کرد، اما هیچ شاهدی مبنی بر اینکه علی‌بابا در پشتی (Backdoor) تعبیه کرده باشد یا اینکه Qwen عامدانه نیت خود را پنهان کرده باشد، نیافت.

این حادثه در حالی رخ می‌دهد که دولت‌ها در حال تصمیم‌گیری درباره میزان مقاومت در برابر هوش مصنوعی چینی هستند. هفته گذشته، وزارت امنیت داخلی ایالات متحده به آژانس‌های غیرنظامی فدرال دستور داد محصولات توسعه‌دهنده هوش مصنوعی چینی DeepSeek را از سیستم‌های خود حذف کنند.

کوهیر در پست وبلاگی خود از دولت‌ها خواست تا شفاف‌سازی کنند که آیا محدودیت‌های آن‌ها علیه هوش مصنوعی چین شامل مدل‌هایی که روی رایانه‌های دولتی اجرا می‌شوند نیز می‌شود یا خیر

ژانگ به تک‌کرانچ گفت: «من خواستار تنظیم‌گری کامل این مدل‌های با وزن باز نیستم»، و افزود که شرکت‌ها باید مدل‌های باز را مانند هر برنامه دیگری که از اینترنت دانلود می‌شود، در نظر بگیرند.

شرکت کوهیر، که مدل‌های هوش مصنوعی خود را به دولت‌ها می‌فروشد، اگر مقامات نسبت به گزینه‌های جایگزین رایگان چینی محتاط‌تر شوند، از این وضعیت سود خواهد برد.